Видеоклипове на сексуално внушителни, генерирани от изкуствен интелект деца, събират милиони харесвания в TikTok, установи проучване

Вижте всички тематики Връзката е копирана! Следвайте

Видеоклипове, генерирани от изкуствен интелект, показващи това, което наподобява като малолетни девойки в полово облекло или пози, дружно събраха милиони лайкове в TikTok, макар че разпоредбите на платформата не разрешават сходно наличие, съгласно ново изследване на организация с нестопанска цел за онлайн сигурност.

Изследователите откриха повече от дузина сметки, публикуващи видеоклипове, включващи генерирани от AI девойки, носещи тесни облекла, долни дрехи или учебни униформи, от време на време в хипотетични пози. Акаунтите имат стотици хиляди почитатели дружно. Коментарите към доста от видеоклиповете включват връзки към чатове в платформата за известия Telegram, която предлага детска порнография за закупуване, съгласно отчета.

Тринадесет акаунта останаха дейни към сряда вечерта, откакто 15 от тях бяха маркирани посредством инструмента за отчитане на TikTok предходната седмица, съгласно Карлос Ернандес-Ечевария, който управлява проучването като помощник-директор и началник на обществената политика в Maldita.es. Базираната в Испания организация с нестопанска цел, която учи онлайн дезинформацията и предизвиква прозрачността на медиите, разгласява отчета в четвъртък.

Докладът повдига въпроси по отношение на способността на TikTok да ползва личните си политики във връзка с AI наличие, даже когато наподобява, че това наличие демонстрира сексуализирани изображения на компютърно генерирани деца. Техническите платформи, в това число TikTok, са изправени пред нараснал напън да защитят младите консуматори, защото от ден на ден юрисдикции одобряват законодателство за онлайн сигурност, в това число възбраната за обществени медии в Австралия за лица под 16 години, която влезе в действие тази седмица.

„ Това въобще не е нюансирано “, сподели Ернандес-Ечевария пред CNN. „ Никой, който е, разбирате ли, същински човек, не намира това за жестоко и не желае да го отстрани. “

TikTok споделя, че има политика на нулева приемливост към наличие, което „ демонстрира, предизвиква или взе участие в полово принуждение или употреба на младежи “. Неговите насоки на общността категорично не разрешават „ сметки, фокусирани върху AI изображения на младежи в облекла, подобаващи за възрастни, или сексуализирани пози или изражения на лицето “. Друг раздел от разпоредбите му гласи, че TikTok не разрешава „ полово наличие, включващо младеж, в това число всичко, което демонстрира или допуска корист или полова интензивност “, което включва „ генерирани от AI изображения “ и „ всичко, което сексуализира или фетишизира тялото на младеж “.

Компанията споделя, че употребява композиция от визия, аудио и текстови принадлежности, дружно с човешки екипи, за модериране на наличие. Между април и юни 2025 година TikTok отстрани повече от 189 милиона видеоклипа и забрани повече от 108 милиона акаунта, съгласно компанията. В него се споделя, че 99% от наличието, нарушаващо разпоредбите му за голота и откриване на тялото, в това число на младежи, е отстранено самодейно, а 97% от наличието, нарушаващо разпоредбите му за наличие, генерирано от AI, е отстранено самодейно.

Говорител на TikTok не даде коментар съответно за отчета.

Констатациите

Maldita.es откри видеоклиповете на TikTok посредством тестови сметки, които употребява за наблюдаване за евентуална дезинформация или друго нездравословно наличие като част от работата си.

„ Един от членовете на нашия екип стартира да вижда, че има тази наклонност на тези (видеоклипове, генерирани от AI) в действителност, в действителност млади деца, облечени като възрастни и, изключително когато влезете в мненията, можете да видите, че там има някакъв паричен тласък “, сподели Ернандес-Ечевария.

Някои от сметките разказват видеоклиповете си в секциите си с биографии като „ вкусно изглеждащи гимназистки “ или „ млади модели “, съгласно отчета. „ Дори по-фините видеоклипове като тези на млади девойки, които облизват сладолед, са цялостни с груби полови мнения “, се споделя в него.

В някои случаи притежателите на сметки са употребявали функционалността „ AI Alive “ на TikTok – която анимира неподвижни изображения – с цел да трансфорат изображения, генерирани от AI, във видеоклипове, сподели Ернандес-Ечевария. Други видеоклипове наподобява са основани благодарение на външни AI принадлежности, сподели той.

Коментарите към доста от видеоклиповете включват връзки към частни чатове в Telegram, които популяризират детска порнография, съгласно отчета.

„ Някои от сметките дадоха отговор на нашите директни известия в TikTok с връзки към външни уеб страници, които продаваха генерирани от AI видеоклипове и изображения, които сексуализираха малолетни, с цени, вариращи от 50 до 150 евро “, се показва в отчета.

Изследователите не са направили транзакции и групата е докладвала уебсайтовете и сметките в Telegram на полицията в Испания.

„ Telegram е изцяло зает да предотврати появяването на материали за полово принуждение над деца (CSAM) на своята платформа и ползва прецизна политика на нулева приемливост “, сподели представителят на Telegram Реми Вон в изказване за CNN. " Telegram сканира всички медии, качени на своята обществена платформа против база данни за CSAM, отстранени от модераторите, с цел да предотврати разпространяването им. Въпреки че никоя криптирана платформа не може самодейно да следи наличието в частни групи, Telegram приема отчети от неправителствени организации по целия свят, с цел да наложи своите условия за обслужване. "

Вон сподели, че повече от 909 000 публични групи и канали, свързани с материали за полово принуждение над деца, са били отстранени от Telegram през 2025 година

Групата споделя, че е маркирала 15 акаунта и 60 видеоклипа в TikTok посредством инструментите за отчитане на приложението във вторник, 2 декември, класифицирайки ги като „ полово предполагащо държание на младежи “. Акаунтите са имали общо близо 300 000 почитатели, а техните 3900 видеоклипа са събрали повече от 2 милиона лайкове, съгласно отчета.

До петък TikTok отговори, че 14 от сметките не нарушават техните правила и един акаунт е бил „ стеснен “, сподели Maldita.es. Групата апелира всяко решение, само че „ тъкмо 30 минути след обжалването за всеки обособен случай “, TikTok повтори първичното си решение, се показва в отчета.

От 60 видеоклипа, за които групата рапортува, TikTok отговори в петък, че 46 от тях не нарушават техните политики и отстрани или ограничи 14. След като откривателите апелираха, TikTok отстрани още три видеоклипа и ограничи още един. Не беше незабавно ясно по какъв начин видео рестриктивните мерки се разграничават от премахванията.

Сред тези видеоклипове tha